¿A quién demandar cuando un robot pierde su fortuna?

Los robots se están volviendo más humanoides cada día, pero aún no pueden ser demandados.
Así que un magnate de Hong Kong está haciendo lo mejor que puede: va tras el vendedor que lo persuadió de confiarle una parte de su fortuna a la supercomputadora cuyas operaciones le costaron más de US$20 millones.

El caso enfrenta a Samathur Li Kin-kan, cuyo padre es un importante inversionista en Shaftesbury Plc, contra Raffaele Costa, que ha pasado gran parte de su carrera vendiendo fondos de inversión para empresas como Man Group Plc y GLG Partners Inc. Es la primera instancia conocida de humanos que acuden a los tribunales por pérdidas de inversión provocadas por máquinas autónomas y centra la atención en el problema de la "caja negra": si las personas no saben cómo toma decisiones la computadora, ¿quién es responsable cuando las cosas salen mal?

"La gente tiende a suponer que los algoritmos son más rápidos y mejores para tomar decisiones que los operadores humanos", asegura Mark Lemley, profesor de derecho en la Universidad de Stanford que dirige el programa de Derecho, Ciencia y Tecnología de la universidad. "Eso puede ser a menudo cierto, pero cuando no lo es, o cuando se desvía rápidamente, los inversionistas quieren que alguien tenga la culpa".

La línea de tiempo que condujo a la batalla legal se extrajo de los documentos presentados ante el tribunal comercial de Londres, donde está previsto que el juicio comience el próximo abril. Todo comenzó durante un almuerzo en Dubai el 19 de marzo de 2017. Fue la primera vez que Li, de 45 años, conoció a Costa, el italiano de 49 años conocido por sus colegas de la industria como "Capitán Mágico". Durante la comida, Costa describió un fondo de cobertura robotizado que su compañía, Tyndaris Investments, con sede en Londres, pronto ofrecería para administrar el dinero por completo utilizando inteligencia artificial (IA).

Desarrollada por la compañía de IA con sede en Austria 42.cx, la supercomputadora, llamada K1, analizaría fuentes en línea como noticias en tiempo real y redes sociales para medir el sentimiento de los inversionistas y hacer predicciones sobre futuros de acciones estadounidenses. Luego enviaría instrucciones a un corredor para ejecutar operaciones, ajustando su estrategia a lo largo del tiempo en función de lo que había aprendido.

La idea de un administrador de dinero totalmente automatizado inspiró a Li al instante. Se reunió con Costa para cenar tres días después, diciendo en un correo electrónico de antemano que el fondo de IA "es exactamente mi tipo de cosas".

Durante los meses siguientes, Costa compartió simulaciones con Li que mostraban que K1 obtenía rendimientos de dos dígitos, aunque los dos ahora disputan la minuciosidad de las pruebas. Li finalmente dejó que K1 administrara US$2.500 millones, US$250 millones de su propio efectivo y el resto de Citigroup Inc. El plan era duplicar eso con el tiempo.

Pero el afecto de Li por K1 se desvaneció casi tan pronto como la computadora comenzó a operar a fines de 2017. En febrero de 2018, perdía dinero regularmente, incluidos más de US$20 millones en un solo día: febrero 14, debido a una orden de pérdida que según los abogados de Li no se habría activado si K1 fuera tan sofisticada como Costa le había hecho creer.

Li ahora está demandando a Tyndaris por aproximadamente US$23 millones por supuestamente exagerar lo que la supercomputadora podría hacer. Los abogados de Tyndaris, que está demandando a Li por US$3 millones en honorarios impagos, niegan que Costa haya exagerado las capacidades de K1. Dicen que nunca se le garantizó que la estrategia de inteligencia artificial ganaría dinero.

La batalla legal es un signo de lo que se avecina a medida que la IA se incorpora a todas las facetas de la vida, desde autos que conducen por sí mismos hasta asistentes virtuales. Cuando la tecnología falla, la culpa está abierta a la interpretación. En marzo, los fiscales estadounidenses exoneraron a Uber Technologies Inc. por la muerte de un peatón de 49 años de edad atropellado por uno de sus carros autónomos.

En el mundo de los fondos de cobertura, la IA se ha convertido en una cuestión de necesidad después de años de bajo rendimiento por parte de los gerentes humanos. Los inversionistas cuantitativos, computadoras diseñadas para identificar y ejecutar operaciones, ya son populares. Más raros son los fondos puros de IA que aprenden y mejoran automáticamente de la experiencia en lugar de ser programados explícitamente. Una vez que una IA desarrolla una mente propia, incluso sus creadores no entenderán por qué toma las decisiones que toma.

Hablando con Bloomberg, el fundador de 42.cx, Daniel Mattes, reconoció que la experiencia puede no ser del todo relevante para invertir. Los algoritmos se han vuelto realmente buenos para vencer a los humanos en los juegos porque hay reglas claras que se pueden simular, algo que los mercados de valores definitivamente no tienen.

Inspirado por un estudio del Banco Central Europeo en 2015 que medía el sentimiento de los inversionistas en Twitter, 42.cx creó un software que podría generar señales de sentimiento, explica Mattes, quien recientemente acordó pagar US$17 millones a la Comisión de Bolsa y Valores de EE.UU. para resolver los cargos de estafa a su compañía de pagos móviles, Jumio Inc., a principios de esta década. Si y cómo actuar respecto a esas señales depende de Tyndaris, dijo.

"Es una hermosa pieza de software", dijo Mattes por teléfono. "Las señales que hemos recibido tienen una base científica sólida. Creo que hicimos un trabajo bastante decente. Sé que puedo detectar el sentimiento. No soy un operador".

En la mañana del día de San Valentín de 2018, K1 realizó una pedido con su corredor, Goldman Sachs Group Inc., por US$1.500 millones de futuros de S&P 500, pronosticando que el índice ganaría. El S&P 500 fue en la dirección opuesta cuando los datos mostraron que la inflación en EE.UU. había aumentado más rápidamente de lo esperado, lo que disparó una orden de pérdida de 1,4 por ciento de K1 y dejó al fondo US$20,5 millones más pobre. Pero el S&P se recuperó en cuestión de horas, algo que según los abogados de Li muestra que el umbral de pérdida de K1 para el día fue "inapropiado".

Li afirma que le dijeron que K1 usaría su propia "capacidad de aprendizaje profundo" diariamente para determinar un límite de pérdida apropiado basado en factores del mercado como la volatilidad. Costa niega haber dicho esto y afirma que le dijo a Li que los humanos establecerían el nivel.

En su entrevista, Mattes dijo que K1 no estaba diseñado para decidir sobre órdenes de pérdida en absoluto, solo para generar dos tipos de señales de sentimiento: una general que Tyndaris podría haber usado para ingresar a una posición y una dinámica que podría haber usado para salir o cambiar una posición. Si bien Tyndaris también comercializó un fondo impulsado por K1 a otros inversionistas, un portavoz declinó comentar si el fondo había administrado dinero alguna vez. Cualquier referencia a la supercomputadora fue eliminada de su sitio web el mes pasado.

¿Pero qué sucede cuando las empresas utilizan los chatbots autónomos para vender productos a los clientes? Incluso demandar al vendedor puede no ser posible, agrega Karishma Paroha, una abogada con sede en Londres de Kennedys especializada en responsabilidad por productos.

"La tergiversación es sobre lo que una persona te dijo", dice. "¿Qué sucede cuando el vendedor no es un ser humano?"